أعلن جاكوب كوكسون، الباحث في مجال الذكاء الاصطناعي، استقالته من شركة أنثروبيك الأمريكية المتخصصة في الذكاء الاصطناعي. واتهم كوكسون شركته ومنافستها "أوبن إيه آي" بالمضي قدماً في سباق محموم لتطوير أنظمة ذكاء اصطناعي فائقة تمتلك القدرة على تحسين ذاتها، محذراً
من أن هذه المنافسة قد تدفع البشرية نحو مواجهة أخطار غير مسبوقة. كوكسون، الذي أمضى السنوات الثلاث الماضية في أبحاث التدريب المسبق لدى الشركتين، أكد أن كلتيهما تفتقران إلى التصرف بمسؤولية، مشيراً إلى أنهما "تتسابقان بشكل مباشر نحو بناء ذكاء فائق
قادر على تحسين نفسه". وقد لاقت تصريحاته اهتماماً واسعاً، لا سيما بعد أن أيدها إيفان هوبينغر، وهو باحث زميل في أنثروبيك ومتخصص في مواءمة الذكاء الاصطناعي مع الأهداف والقيم البشرية. وفي منشور له عبر منصة إكس، حث كوكسون الجمهور على عدم
التقليل من شأن قدرات الذكاء الاصطناعي. ونبه إلى أن الأنظمة المستقبلية قد تتفوق على القدرات البشرية في مجالات متعددة، وتكتسب القدرة على اختراق أنظمة متنوعة، وإحداث تحولات واسعة النطاق في قطاعات عدة في فترة زمنية قصيرة، بالإضافة إلى امتلاكها القدرة
على الوصول إلى موارد وقوى حقيقية. يرى الباحث أن وتيرة التطور في هذه المجالات لا تتباطأ، وأن القائمين على بناء أنظمة الذكاء الاصطناعي يدركون في أعماقهم احتمالية وصول التكنولوجيا إلى مستويات بالغة الخطورة خلال العقد الحالي. بيد أن كوكسون لا يرى
أن المشكلة تكمن في قدرات الذكاء الاصطناعي بحد ذاتها، بل في السباق الشرس بين الشركات الرامية إلى تطويرها أولاً. يطرح كوكسون تساؤلاً جوهرياً: إذا كان العاملون في هذه الشركات يؤمنون حقاً بالأخطار المحتملة، فلماذا يواصلون تطوير هذه التكنولوجيا؟ يشير الباحث إلى
أن العديد من العاملين في "أوبن إيه آي" لم يستوعبوا بعد، بعمق كافٍ، حجم التهديدات التي قد تشكلها هذه الأنظمة على الحضارة الإنسانية. أما في أنثروبيك، فيقر كوكسون بأن الأخطار مفهومة بشكل أفضل، لكن الشركة تجد نفسها عالقة في سباق
للوصول إلى الصدارة أولاً، مدفوعةً بالاعتقاد بأن المنافسين قد لا يلتزمون بالمسؤولية ذاتها. ويُحذر كوكسون من أن القبول بهذا المنطق والدخول فيما وصفه بـ"نهاية اللعبة" يمثل "مقامرة متغطرسة". ويطالب بالبحث عن بدائل أكثر أماناً قبل إطلاق أنظمة فائقة الذكاء، ويدعو إلى
تعزيز التنسيق بين مختبرات الذكاء الاصطناعي وإلى إبرام اتفاقيات تحد من سرعة التطوير. ويعتبر أن استمرار السباق العالمي قد يجعل من الإجراءات الأكثر تكلفة، مثل الوقف المؤقت لتحسين قدرات النماذج، أمراً لا غنى عنه. وقد اكتسبت تحذيرات كوكسون زخماً إضافياً بعد
أن قام إيفان هوبينغر بإعادة نشرها، مؤيداً بذلك جوهر مخاوفه. صرح هوبينغر أن العاملين في مجال الذكاء الاصطناعي يؤمنون بجدية بقدرة التكنولوجيا على التسبب في زوال البشرية، مقدراً احتمال وقوع سيناريو كهذا بأكثر من 10% خلال العقد المقبل. كما أشار
إلى عدم وجود خطة متكاملة حتى الآن لضمان توافق الذكاء الاصطناعي الفائق مع الأهداف والقيم البشرية. وتطرق هوبينغر أيضاً إلى قلقه من عمليات "التطوير الذاتي المتكرر" (Recursive Self-Improvement)، حيث يمكن للنظام أن يصبح قادراً على الإسهام في تحسين قدراته الخاصة، مما
قد يؤدي إلى تسارع التطور بوتيرة تتجاوز جميع التوقعات. ومع ذلك، تجدر الإشارة إلى أن نسبة الـ10% التي ذكرها هوبينغر تُعد تقديراً شخصياً لباحث متخصص في السلامة، وليست توقّعاً علمياً متفقاً عليه أو تقديراً رسمياً صادراً عن شركة أنثروبيك. تكشف استقالة
كوكسون والتأييد الذي حظي به من هوبينغر عن انقسام واضح داخل قطاع الذكاء الاصطناعي نفسه. فالمخاوف لا تنبع فقط من منتقدين خارجيين للتكنولوجيا، بل من باحثين شاركوا في تطوير أنظمتها ويعتقدون أن سرعة التقدم قد تتحول إلى مشكلة بحد ذاتها.
هذا لا يعني أن الذكاء الاصطناعي الفائق قد أصبح واقعاً، أو أن انقراض البشرية أمر حتمي، كما لا توجد أدلة قاطعة تثبت أن الأنظمة الحالية قادرة على تنفيذ السيناريوهات القصوى التي يحذر منها هؤلاء الباحثون. لكن جوهر التحذير يكمن في نقطة
أخرى: قدرة الأنظمة المتقدمة على بلوغ مستويات جديدة قبل أن يتمكن البشر من فهم كافٍ لكيفية تصرفها، أو امتلاك الأدوات الموثوقة الكفيلة بضمان بقائها تحت السيطرة. من هذا المنطلق، لا تبدو المعركة القادمة مرتبطة فقط بمن سيطور أقوى نموذج، بل
بمن سيستطيع إقناع المنافسين بأن التباطؤ أحياناً قد يكون أكثر أماناً من مجرد الفوز في هذا السباق.
